Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

rinna（東京都渋谷区）は、高性能な日本語テキスト生成モデル「Qwen2.5 Bakeneko 32B」シリーズを開発し、Apache-2.0 Licenseで公開したと発表。これまでGPTやBERTなどの基盤モデルを提供し、920万ダウンロード、1200 Likesを記録。新シリーズは、日本語のAI研究・開発を支援することを目的としている。

「Qwen2.5 Bakeneko 32B」シリーズは、アリババ社のLLM「Qwen2.5 32B」に日本語継続事前学習を施したもの。派生モデル「Qwen2.5 Bakeneko 32B Instruct」は対話形式での利用に適しており、DeepSeek R1の出力を用いた「DeepSeek R1 Distill Qwen2.5 Bakeneko 32B」も開発された。これらは、高い日本語性能を持つ応用モデルの作成に貢献すると期待される。

DeepSeek R1 Distill Qwen2.5 Bakeneko 32Bは、DeepSeek R1からの蒸留学習を行い、日本語の思考能力を向上させた。Japanese MT-Benchの結果では、英語・中国語中心のDeepSeek R1 Distill Qwen 32Bに比べて大幅なスコア改善を達成。詳細なベンチマーク結果は公式サイトで確認可能だ。

rinnaは、ChatGPTの登場によりテキスト生成技術が広まる中、目的に応じたモデル開発・運用の重要性を強調。LLMを用いた研究・開発・運用で蓄積した知見を活かし、カスタマイズソリューション「Tamashiru Custom」を提供している。今後もAIの社会実装を進め、研究成果の公開や製品への導入を行う方針だ。